В научной фантастике полно ботов, причиняющих вред людям. В «2001: космической одиссее» HAL 9000 убил одного астронавта и попытался убить другого. В «Из машины» Ава мастерски манипулирует людьми, чтобы сбежать. Про T-800 из «Терминатора» рассказывать не нужно. Подобных примеров масса: боты умны и достаточно разумны, чтобы иметь настоящую личность, но их губит наивность — от Джонни Пять в «Коротком замыкании» до киборга в «Робокопе». В фантастике очень тщательно исследован тема опасности мощного интеллекта, способного манипулировать людьми или лишённого конкретного нравственного направления. Более умный, а значит, более мощный бот — это бот, имеющий больше возможностей творить зло, попутно проявляя свойственную человеку гордыню.
Конечно, всё это фантастика. Но раз современный хайтек начал уделять повышенное внимание разговорным ботам (conversational bots), определяя их как будущее всего, то, возможно, он предлагает нам и способ определения имеющихся у бота возможностей. В таком случае …
